home *** CD-ROM | disk | FTP | other *** search
/ Amiga Format CD 39 / Amiga Format CD39 (1999-04-13)(Future Publishing)(GB)[!][issue 1999-05].iso / -seriously_amiga- / graphics / mpeg2decode / src / ieee1180 < prev    next >
Text File  |  1999-03-02  |  11KB  |  246 lines
  1. IEEE 1180 report for mpeg2decode fast integer IDCT:
  2.  
  3. From stefan@lis.e-technik.tu-muenchen.de Thu May 26 08:18:36 1994
  4.  
  5. IEEE test conditions: -L = -256, +H = 255, sign = 1, #iters = 10000
  6. Peak absolute values of errors:
  7.    1   1   1   1   1   1   1   1
  8.    1   1   1   1   1   1   1   1
  9.    1   1   1   1   1   1   1   1
  10.    1   1   1   1   1   1   1   1
  11.    1   1   1   1   1   1   1   1
  12.    1   1   1   1   1   1   1   1
  13.    1   1   1   1   1   1   1   1
  14.    1   1   1   1   1   1   1   1
  15. Worst peak error = 1  (meets spec limit 1)
  16.  
  17. Mean square errors:
  18.    0.0058   0.0118   0.0097   0.0057   0.0055   0.0117   0.0120   0.0063
  19.    0.0106   0.0157   0.0142   0.0099   0.0115   0.0168   0.0154   0.0123
  20.    0.0128   0.0156   0.0152   0.0095   0.0115   0.0147   0.0173   0.0096
  21.    0.0055   0.0115   0.0103   0.0078   0.0069   0.0092   0.0113   0.0071
  22.    0.0057   0.0134   0.0123   0.0067   0.0050   0.0109   0.0128   0.0065
  23.    0.0101   0.0172   0.0159   0.0093   0.0097   0.0148   0.0163   0.0130
  24.    0.0113   0.0171   0.0148   0.0103   0.0110   0.0153   0.0149   0.0093
  25.    0.0064   0.0123   0.0104   0.0065   0.0064   0.0111   0.0099   0.0066
  26. Worst pmse = 0.017300  (meets spec limit 0.06)
  27. Overall mse = 0.010998  (meets spec limit 0.02)
  28.  
  29. Mean errors:
  30.    0.0014   0.0004   0.0003   0.0017   0.0003   0.0011   0.0010  -0.0001
  31.    0.0000   0.0003   0.0010   0.0003   0.0007  -0.0006   0.0004   0.0033
  32.    0.0000  -0.0008  -0.0006   0.0009  -0.0015  -0.0013  -0.0017  -0.0008
  33.   -0.0017   0.0019  -0.0005   0.0010   0.0005   0.0000  -0.0017  -0.0001
  34.    0.0007   0.0034   0.0015   0.0021   0.0016   0.0007  -0.0006   0.0011
  35.   -0.0007   0.0004  -0.0001   0.0003   0.0003   0.0004   0.0031  -0.0010
  36.    0.0009  -0.0005  -0.0004   0.0003   0.0008  -0.0015  -0.0007  -0.0007
  37.    0.0024   0.0001   0.0018  -0.0003  -0.0006  -0.0001   0.0009   0.0018
  38. Worst mean error = 0.003400  (meets spec limit 0.015)
  39. Overall mean error = 0.000352  (meets spec limit 0.0015)
  40.  
  41. 0 elements of IDCT(0) were not zero
  42.  
  43.  
  44. 25.8u 0.1s 0:27 95% 0+216k 0+2io 0pf+0w
  45. IEEE test conditions: -L = -5, +H = 5, sign = 1, #iters = 10000
  46. Peak absolute values of errors:
  47.    1   1   1   1   1   1   1   1
  48.    1   1   1   1   1   1   1   1
  49.    1   1   1   1   1   1   1   1
  50.    1   1   1   1   1   1   1   1
  51.    1   1   1   1   1   1   1   1
  52.    1   1   1   1   1   1   1   1
  53.    1   1   1   1   1   1   1   1
  54.    1   1   1   1   1   1   1   1
  55. Worst peak error = 1  (meets spec limit 1)
  56.  
  57. Mean square errors:
  58.    0.0008   0.0008   0.0006   0.0006   0.0006   0.0006   0.0007   0.0005
  59.    0.0005   0.0003   0.0005   0.0001   0.0003   0.0007   0.0007   0.0004
  60.    0.0004   0.0012   0.0011   0.0007   0.0010   0.0008   0.0010   0.0003
  61.    0.0004   0.0004   0.0001   0.0002   0.0004   0.0007   0.0009   0.0004
  62.    0.0005   0.0005   0.0004   0.0002   0.0006   0.0004   0.0012   0.0003
  63.    0.0008   0.0006   0.0007   0.0007   0.0003   0.0012   0.0011   0.0004
  64.    0.0006   0.0002   0.0001   0.0002   0.0005   0.0005   0.0007   0.0005
  65.    0.0008   0.0004   0.0006   0.0003   0.0008   0.0006   0.0002   0.0003
  66. Worst pmse = 0.001200  (meets spec limit 0.06)
  67. Overall mse = 0.000561  (meets spec limit 0.02)
  68.  
  69. Mean errors:
  70.    0.0008   0.0006   0.0000   0.0006   0.0006   0.0002   0.0005   0.0003
  71.    0.0005   0.0003   0.0003   0.0001   0.0001   0.0001   0.0005   0.0002
  72.    0.0004   0.0006   0.0005   0.0007   0.0006   0.0004   0.0002  -0.0001
  73.    0.0002   0.0002   0.0001   0.0002   0.0004   0.0005   0.0003   0.0002
  74.    0.0003   0.0003   0.0004   0.0002   0.0006   0.0000   0.0002   0.0003
  75.   -0.0002   0.0004   0.0007   0.0005   0.0001   0.0010   0.0005  -0.0002
  76.    0.0004   0.0000   0.0001   0.0000   0.0001   0.0003   0.0005   0.0003
  77.    0.0006   0.0000   0.0002   0.0003   0.0004   0.0002   0.0002   0.0001
  78. Worst mean error = 0.001000  (meets spec limit 0.015)
  79. Overall mean error = 0.000311  (meets spec limit 0.0015)
  80.  
  81. 0 elements of IDCT(0) were not zero
  82.  
  83.  
  84. 25.7u 0.1s 0:27 95% 0+216k 0+3io 0pf+0w
  85. IEEE test conditions: -L = -300, +H = 300, sign = 1, #iters = 10000
  86. Peak absolute values of errors:
  87.    1   1   1   1   1   1   1   1
  88.    1   1   1   1   1   1   1   1
  89.    1   1   1   1   1   1   1   1
  90.    1   1   1   1   1   1   1   1
  91.    1   1   1   1   1   1   1   1
  92.    1   1   1   1   1   1   1   1
  93.    1   1   1   1   1   1   1   1
  94.    1   1   1   1   1   1   1   1
  95. Worst peak error = 1  (meets spec limit 1)
  96.  
  97. Mean square errors:
  98.    0.0068   0.0097   0.0119   0.0064   0.0065   0.0105   0.0112   0.0050
  99.    0.0088   0.0130   0.0128   0.0088   0.0111   0.0152   0.0139   0.0109
  100.    0.0114   0.0127   0.0157   0.0099   0.0114   0.0137   0.0153   0.0109
  101.    0.0052   0.0097   0.0120   0.0060   0.0067   0.0114   0.0099   0.0065
  102.    0.0062   0.0096   0.0091   0.0064   0.0076   0.0092   0.0111   0.0058
  103.    0.0096   0.0139   0.0166   0.0112   0.0092   0.0141   0.0122   0.0103
  104.    0.0121   0.0138   0.0131   0.0089   0.0108   0.0172   0.0127   0.0104
  105.    0.0070   0.0109   0.0092   0.0055   0.0057   0.0128   0.0102   0.0069
  106. Worst pmse = 0.017200  (meets spec limit 0.06)
  107. Overall mse = 0.010316  (meets spec limit 0.02)
  108.  
  109. Mean errors:
  110.   -0.0010   0.0015   0.0001  -0.0004   0.0005  -0.0001   0.0008   0.0000
  111.    0.0004   0.0016   0.0006   0.0000  -0.0001   0.0004   0.0011   0.0001
  112.   -0.0008   0.0013   0.0015   0.0003   0.0010   0.0005  -0.0005   0.0021
  113.    0.0006   0.0013  -0.0004   0.0000   0.0007  -0.0002  -0.0009   0.0003
  114.    0.0004   0.0004  -0.0001  -0.0004   0.0014   0.0018   0.0017  -0.0002
  115.    0.0024   0.0007  -0.0002  -0.0018   0.0004   0.0001   0.0010   0.0009
  116.    0.0001  -0.0002   0.0005   0.0003  -0.0016   0.0004   0.0013  -0.0006
  117.   -0.0012  -0.0017  -0.0008   0.0003   0.0001   0.0018   0.0008  -0.0005
  118. Worst mean error = 0.002400  (meets spec limit 0.015)
  119. Overall mean error = 0.000309  (meets spec limit 0.0015)
  120.  
  121. 0 elements of IDCT(0) were not zero
  122.  
  123.  
  124. 25.8u 0.0s 0:27 95% 0+216k 0+4io 0pf+0w
  125. IEEE test conditions: -L = -256, +H = 255, sign = -1, #iters = 10000
  126. Peak absolute values of errors:
  127.    1   1   1   1   1   1   1   1
  128.    1   1   1   1   1   1   1   1
  129.    1   1   1   1   1   1   1   1
  130.    1   1   1   1   1   1   1   1
  131.    1   1   1   1   1   1   1   1
  132.    1   1   1   1   1   1   1   1
  133.    1   1   1   1   1   1   1   1
  134.    1   1   1   1   1   1   1   1
  135. Worst peak error = 1  (meets spec limit 1)
  136.  
  137. Mean square errors:
  138.    0.0061   0.0118   0.0097   0.0057   0.0058   0.0113   0.0115   0.0061
  139.    0.0105   0.0159   0.0138   0.0097   0.0113   0.0166   0.0149   0.0123
  140.    0.0129   0.0155   0.0152   0.0095   0.0112   0.0145   0.0173   0.0094
  141.    0.0059   0.0112   0.0105   0.0076   0.0071   0.0091   0.0113   0.0073
  142.    0.0061   0.0130   0.0128   0.0066   0.0051   0.0108   0.0126   0.0067
  143.    0.0099   0.0168   0.0161   0.0095   0.0100   0.0149   0.0166   0.0132
  144.    0.0113   0.0171   0.0150   0.0101   0.0110   0.0157   0.0152   0.0094
  145.    0.0062   0.0121   0.0102   0.0065   0.0061   0.0112   0.0099   0.0065
  146. Worst pmse = 0.017300  (meets spec limit 0.06)
  147. Overall mse = 0.010980  (meets spec limit 0.02)
  148.  
  149. Mean errors:
  150.   -0.0005   0.0006   0.0001  -0.0007   0.0006  -0.0003  -0.0003   0.0011
  151.    0.0011   0.0003  -0.0002   0.0005  -0.0001   0.0008   0.0001  -0.0027
  152.    0.0013   0.0015   0.0010  -0.0001   0.0020   0.0019   0.0025   0.0016
  153.    0.0023  -0.0008   0.0011  -0.0002   0.0007   0.0003   0.0019   0.0009
  154.   -0.0003  -0.0030  -0.0002  -0.0012  -0.0009   0.0000   0.0010  -0.0005
  155.    0.0009   0.0002   0.0015   0.0007   0.0002   0.0001  -0.0026   0.0018
  156.    0.0001   0.0011   0.0010   0.0005  -0.0004   0.0023   0.0014   0.0014
  157.   -0.0014   0.0007  -0.0014   0.0009   0.0013   0.0006  -0.0007  -0.0007
  158. Worst mean error = 0.003000  (meets spec limit 0.015)
  159. Overall mean error = 0.000355  (meets spec limit 0.0015)
  160.  
  161. 0 elements of IDCT(0) were not zero
  162.  
  163.  
  164. 25.8u 0.1s 0:27 95% 0+216k 0+3io 0pf+0w
  165. IEEE test conditions: -L = -5, +H = 5, sign = -1, #iters = 10000
  166. Peak absolute values of errors:
  167.    1   1   1   1   1   1   1   1
  168.    1   1   1   1   1   1   1   1
  169.    1   1   1   1   1   1   1   1
  170.    1   1   1   1   1   1   1   1
  171.    1   1   1   1   1   1   1   1
  172.    1   1   1   1   1   1   1   1
  173.    1   1   1   1   1   1   1   1
  174.    1   1   1   1   1   1   1   1
  175. Worst peak error = 1  (meets spec limit 1)
  176.  
  177. Mean square errors:
  178.    0.0010   0.0007   0.0008   0.0004   0.0008   0.0004   0.0005   0.0007
  179.    0.0005   0.0007   0.0005   0.0004   0.0006   0.0005   0.0005   0.0003
  180.    0.0003   0.0011   0.0009   0.0007   0.0008   0.0006   0.0011   0.0006
  181.    0.0003   0.0004   0.0002   0.0002   0.0003   0.0006   0.0008   0.0006
  182.    0.0004   0.0005   0.0006   0.0006   0.0003   0.0007   0.0007   0.0003
  183.    0.0013   0.0006   0.0008   0.0005   0.0004   0.0006   0.0008   0.0004
  184.    0.0003   0.0003   0.0003   0.0002   0.0005   0.0004   0.0006   0.0005
  185.    0.0005   0.0003   0.0006   0.0005   0.0011   0.0007   0.0005   0.0003
  186. Worst pmse = 0.001300  (meets spec limit 0.06)
  187. Overall mse = 0.000561  (meets spec limit 0.02)
  188.  
  189. Mean errors:
  190.    0.0002   0.0005   0.0008   0.0000   0.0002   0.0004   0.0003   0.0007
  191.    0.0001   0.0003   0.0003   0.0002   0.0006   0.0003   0.0001   0.0003
  192.   -0.0001   0.0007   0.0003   0.0001   0.0002   0.0006   0.0005   0.0006
  193.    0.0001   0.0004   0.0002   0.0002   0.0001   0.0002   0.0004   0.0004
  194.    0.0002   0.0005   0.0006   0.0004   0.0001   0.0005   0.0005   0.0003
  195.    0.0009   0.0002   0.0000   0.0001   0.0004   0.0000   0.0006   0.0004
  196.    0.0003   0.0003   0.0003   0.0002   0.0003   0.0000   0.0004   0.0003
  197.    0.0003   0.0003   0.0004   0.0003   0.0007   0.0005   0.0005   0.0003
  198. Worst mean error = 0.000900  (meets spec limit 0.015)
  199. Overall mean error = 0.000333  (meets spec limit 0.0015)
  200.  
  201. 0 elements of IDCT(0) were not zero
  202.  
  203.  
  204. 25.7u 0.1s 0:27 95% 0+216k 0+0io 0pf+0w
  205. IEEE test conditions: -L = -300, +H = 300, sign = -1, #iters = 10000
  206. Peak absolute values of errors:
  207.    1   1   1   1   1   1   1   1
  208.    1   1   1   1   1   1   1   1
  209.    1   1   1   1   1   1   1   1
  210.    1   1   1   1   1   1   1   1
  211.    1   1   1   1   1   1   1   1
  212.    1   1   1   1   1   1   1   1
  213.    1   1   1   1   1   1   1   1
  214.    1   1   1   1   1   1   1   1
  215. Worst peak error = 1  (meets spec limit 1)
  216.  
  217. Mean square errors:
  218.    0.0067   0.0097   0.0118   0.0060   0.0066   0.0107   0.0113   0.0049
  219.    0.0082   0.0132   0.0128   0.0088   0.0110   0.0152   0.0140   0.0109
  220.    0.0122   0.0125   0.0156   0.0098   0.0113   0.0139   0.0152   0.0106
  221.    0.0054   0.0097   0.0121   0.0064   0.0067   0.0110   0.0096   0.0062
  222.    0.0064   0.0099   0.0090   0.0067   0.0078   0.0089   0.0112   0.0057
  223.    0.0098   0.0136   0.0165   0.0111   0.0090   0.0138   0.0120   0.0103
  224.    0.0121   0.0135   0.0131   0.0087   0.0107   0.0168   0.0128   0.0102
  225.    0.0069   0.0109   0.0091   0.0057   0.0061   0.0125   0.0103   0.0070
  226. Worst pmse = 0.016800  (meets spec limit 0.06)
  227. Overall mse = 0.010283  (meets spec limit 0.02)
  228.  
  229. Mean errors:
  230.    0.0015  -0.0009   0.0006   0.0012   0.0002   0.0007  -0.0001   0.0005
  231.    0.0004  -0.0010   0.0000   0.0004   0.0006   0.0004  -0.0004   0.0007
  232.    0.0018  -0.0009  -0.0006   0.0000  -0.0003  -0.0001   0.0014  -0.0006
  233.   -0.0002  -0.0011   0.0009   0.0004  -0.0003   0.0010   0.0010   0.0000
  234.    0.0004   0.0001   0.0010   0.0011  -0.0008  -0.0017  -0.0006   0.0009
  235.   -0.0020   0.0000   0.0007   0.0021   0.0002   0.0002  -0.0004  -0.0003
  236.    0.0003   0.0005  -0.0003  -0.0001   0.0017   0.0002  -0.0004   0.0010
  237.    0.0015   0.0023   0.0013   0.0003   0.0005  -0.0011  -0.0003   0.0006
  238. Worst mean error = 0.002300  (meets spec limit 0.015)
  239. Overall mean error = 0.000252  (meets spec limit 0.0015)
  240.  
  241. 0 elements of IDCT(0) were not zero
  242.  
  243.  
  244. 25.8u 0.0s 0:27 94% 0+216k 0+3io 0pf+0w
  245.  
  246.